dsh-slot-health:本地 LLM 端點健康監控
`dsh-slot-health` 是 DeepSeek Harness 的一個雙面插件,旨在 Web 側邊欄提供本地 LLM 端點的實時健康監控。該插件通過指紋識別技術區分 llama.cpp、Ollama 和 vLLM 引擎,支持監控槽位狀態、首字延遲、模型加載情況及服務器指標。安裝後,用戶可在 UI 右側邊欄查看結構化的狀態卡片,並利用 Dock 欄顯示狀態芯片。插件對本地端點僅執行只讀操作,解決了查看原始日誌難以快速判斷端點狀態的痛點。
閱讀全文dsh-model-manager:本地 LLM 推理服務的總控臺
`dsh-model-manager` 是 DeepSeek Harness 的插件,旨在解決本地多 LLM 推理服務配置混亂問題。它提供統一面板,支持服務註冊、參數 Profile 管理、GPU 檢測、顯存校驗及一鍵測速。插件通過嚴格的二次確認機制保障安全,需安裝於 DSH 環境中,能有效輔助開發者管理本地多模型服務。
閱讀全文